Ông trải thăng Hữu Thị lang bộ Lễ vào đời Lý Nhân Tông,[10] sau bị truất thành chức Nội hỏa Thư gia,[5] theo Lịch triều hiến chương loại chí thì ông bị bãi chức vào năm Long Phù (1101-1109) và theo Việt sử thông giám cương mục là năm Hội Tường Đại Khánh thứ 9, tức năm 1118. Lê Bá Ngọc được gia chức Nội thường thị vào năm Thiên Phù Duệ Vũ thứ 2 (1121), đến năm 1124 thì làm Thị lang bộ Lễ.[7][11]

Năm 1126, ông được vua sai đi đánh dẹp người Nùng làm phản ở châu Quảng Nguyên. Năm sau, khi đến Quảng Nguyên thì quân làm phản chạy sang nước Tống, theo Lịch triều hiến chương loại chí, Lê Bá Ngọc đã đặt ra phép tắc nhằm ràng buộc dân ở biên giới rồi kéo quân về.[7]

Tháng chạp năm Đinh Mùi, tức năm 1127, ông được vua truyền di mệnh cùng Lưu Khánh Đàm đưa thái tử, tức vua Lý Thần Tông lên ngôi.[12][13] Khi vua Lý Thần Tông lên ngôi Lê Bá Ngọc được sai truyền dụ cho vương hầu và các quan.[7][8]

Ngày Tân Sửu tháng 1 năm Thiên Thuận thứ nhất (1128), ông được thăng làm Thái úy, tước hầu[2][14] và được ban thưởng tiền lụa do có công phò lập. Tháng 11 âm lịch cùng năm ông được vua thêm chức Thái sư và cho đổi họ thành họ Trương,[2][3][7][8][13] theo họ của Ngọc Hoàng Thượng đế.

Trương Bá Ngọc mất năm Thiện Thuận thứ 3, tức năm 1130.[1][4][5][7]